फ्लोरिडा, अमेरिका में एक व्यक्ति को बाल पोर्नोग्राफी सामग्री उत्पन्न करने के लिए आर्टिफिशियल इंटेलिजेंस का उपयोग करने के आरोप में गिरफ्तार किया गया है, जिसके खिलाफ 20 तक अश्लीलता के आरोप लग सकते हैं। यह व्यक्ति किक नामक सोशल ऐप पर AI इमेज जेनरेटर का उपयोग करके बनाई गई बाल पोर्नोग्राफी छवियों का वितरण करता था, जिससे व्यापक जागरूकता का प्रसंग बना। इस मामले में जनरेटिव आर्टिफिशियल इंटेलिजेंस के दुरुपयोग का उल्लेख है, जिससे सभी स्तरों के सांसदों द्वारा अनुचित सामग्री के प्रसार पर रोक लगाने के लिए कानून बनाने का प्रवर्तन किया जा रहा है। पिछले वर्ष, नेशनल सेंटर फॉर मिसिंग एंड एक्सप्लॉइटेड चाइल्ड्रेन ने संबंधित 4700 शिकायतें प्राप्त की थीं, जिनमें वास्तविक बच्चों के गहरे फेक इमेज बनाने के लिए जनरेटिव AI के उपयोग के जरिए जबरन वसूली करना शामिल है।

एंग्लिया रस्किन विश्वविद्यालय की रिपोर्ट में खुलासा किया गया है कि डार्क वेब पर एआई द्वारा उत्पन्न बाल शोषण चित्रों की मांग तेजी से बढ़ रही है। शोधकर्ता डॉ. डियाना डेविस और प्रोफेसर सैम लंड्रिगन ने पिछले 12 महीनों के डार्क वेब फोरम चैट रिकॉर्ड का विश्लेषण किया और पाया कि ऑनलाइन अपराधी एआई तकनीक का उपयोग करके बाल पोर्नोग्राफी सामग्री बनाने में रुचि ले रहे हैं। वे आत्म-शिक्षण और अनुभव साझा करके ऑनलाइन एआई उत्पन्न शोषण चित्रों का निर्माण कर रहे हैं। शोध से पता चलता है कि एआई तकनीक से उत्पन्न चुनौतियों का सामना करते समय कानून प्रवर्तन एजेंसियों को गंभीर कठिनाइयों का सामना करना पड़ता है।

अमेरिका के 50 राज्यों के अटॉर्नी जनरल ने कांग्रेस से आह्वान किया है कि वह एक समिति का गठन करे जो AI द्वारा उत्पन्न बाल पोर्नोग्राफी सामग्री के प्रभावों का अध्ययन करे। समिति को समाधान पेश करने चाहिए ताकि AI का उपयोग झूठी बाल यौन शोषण सामग्री उत्पन्न करने के लिए न किया जा सके। कानून के दायरे को विस्तारित करने की मांग की जा रही है ताकि AI द्वारा उत्पन्न बाल पोर्नोग्राफी सामग्री को अवैध श्रेणी में शामिल किया जा सके।